Pada tahun 1105 Heinrich IV, Kaisar Romawi Suci sejak tahun 1084, dipecat oleh putranya, Heinrich V, pamanda Konrad. Kaisar sejak tahun 1111, Heinrich V mempersiapkan kampanye kedua ke Italia setelah kematian Markgraf wanita Matilde dari Toskana, pada tahun 1116 melantik Konrad sebagai Adipati Franconia.[1] Konrad bertindak sebagai pemangku takhta untuk Jerman, besama dengan kakandanya, Adipati FriedrichII dari Swabia. Setelah kematian Heinrich V pada tahun 1125, Konrad tidak berhasil mendukung Friedrich II untuk kerajaan Jerman. Friedrich ditempatkan di bawah larangan dan Franconia dan Kerajaan Bourgogne dirampas dari Konrad, dimana ia menjadi rektor. Dengan bantuan Kota kekaisaran bebas, Swabia, dan Kadipaten Austria, Konrad terpilih sebagai Anti-raja di Nürnberg pada bulan Desember1127.